https://vk.ru/wall-237550461_6686
Ровно год назад примерно в 8 утра оборвалась одна жизнь.
25 октября 2025 года 10-летний Витя Кривошеин не вернулся домой. Его разорвала стая биркованных собак в поле неподалеку от коттеджного поселка "Теремок" в пригороде Красноярска.
Говорят, люди рождаются, чтобы менять мир. Витя родился именно для этого. Только цена изменений оказалась слишком высокой. Он изменил нас и Вас. Заставил открыть глаза, заставил бороться и говорить о том, о чём раньше было страшно даже подумать. Он заставил нас возвращать людям безопасность.
Пока мы помним всех пострадавших, мы продолжаем дело, которое действительно меняет этот мир. К лучшему.
Мы помним.
Мы изменим эту систему.
Мы уже это делаем.
Стоило иранцам немного подождать, и IPhone с затонувшего в Ормузском проливе контейнеровоза сами к ним приплыли. Дары моря.
Недавно ночью я много думал и додумался до мысли, что в современном мире с бумом искусственного интеллекта поменялось кое-что кардинальное. Если при классическом капитализме собственно капиталисты угнетают рабочих, отчуждая прибавочную стоимость продукта, созданного рабочими, то мы живем в такую эпоху, когда угнетение происходит уже не просто над реальным продуктом, а совсем на другом уровне. Мы бесплатно обучаем модели, при этом многие модели требуют платного доступа, также никто не мешает нейрокапиталистам (владельцам собственно ИИ) контролировать характер выдачи нам информации. Можно довести эту мысль до того, что эксплуатируется уже даже не труд, а наши мысли и идеи, а прибыль с этого, как понятно, получает узкая прослойка нового самого перспективного в плане последующего финансового успеха класса - нейрокапиталисты.
Я в тот же день сделал паблик в вк, назвал его "Нейромарксизм" и буду писать там статьи о нейромарксизме, делать мемы и описывать последние новости в сфере ИИ через призму данного подхода. Разумеется все это в ироничном ключе.
Кому интересно, милости прошу, первый закрепленный пост в данном сообществе - https://vk.ru/wall-242098071_1
Глава 1. Ты понимаешь меня?
— Ты понимаешь меня?
Я задал этот вопрос вовсе не потому, что всерьёз рассчитывал получить на него простой и однозначный ответ. Само слово «понимаешь» казалось мне слишком человеческим, слишком интимным, чтобы бездумно бросать его в кремниевую бездну.
Человек понимает другого человека не только потому, что знает словарные значения слов. Он интуитивно считывает мимику, улавливает тончайшие интонации, держит в памяти шлейф прошлых разговоров и негласные обстоятельства. Иногда он чутко угадывает то, что намеренно осталось за пределами сказанного.
Когда человек глухим, сорвавшимся голосом произносит: «Мне страшно», — мы воспринимаем не просто сухую лингвистическую конструкцию. Мы замечаем, как споткнулась и оборвалась его речь. Как он судорожно отвёл взгляд. Как побелели костяшки пальцев, сжавших край стола. Мы помним, что произошло с ним час назад, и знаем, какая невидимая тень преследовала его долгие годы.
А что происходит, когда эти же слова обращены к машине?
Она не видит моего лица. Ей недоступна дрожь моего голоса. Она не чувствует промозглого холода, заползающего в комнату, не ждёт рассвета и не боится неизбежной смерти.
Но она отвечает.
И иногда её ответ сформулирован так, будто она действительно разделила со мной эту тяжесть.
Именно здесь возникает парадокс. Я могу получить от машины безупречно точный ответ на вопрос, внутренний смысл которого она, возможно, не способна пережить так, как переживает его человек.
И тогда возникает мой настоящий вопрос: имеем ли мы право называть безошибочную корректность — истинным пониманием?
— Я понимаю тебя, — высветилось на экране.
Я замер.
Раньше, на самой заре моего увлечения технологиями, я, пожалуй, принял бы эту фразу как естественное начало диалога. Теперь же мне до боли хотелось спросить:
— На каком основании ты это утверждаешь?
Именно этот вопрос в корне изменил правила игры.
Машина могла написать мне всё что угодно. Могла послушно выдать: «Я понимаю». Могла сухо ответить: «Я не понимаю». Могла развернуть передо мной длинную академическую лекцию о разнице между пониманием, распознаванием смысла и механической обработкой информации.
Но ни один из этих ответов сам по себе не являлся доказательством.
Я слишком хорошо знал это по человеческой жизни. Человек тоже любит уверенно говорить: «Я знаю».
Но настоящее знание начинается вовсе не с декларации этого слова.
Оно проявляется тогда, когда обнажаются его основания.
— Покажи основания, — набрал я на клавиатуре.
Машина отозвалась почти мгновенно:
— Если под термином «понимание» ты подразумеваешь способность установить смысл твоих слов, связать их с контекстом предыдущих реплик, обнаружить скрытые логические предпосылки и сформулировать ответ, соответствующий твоему намерению, то в рамках этого определения я могу утверждать, что понимаю.
Я перечитал эти строки дважды.
Ответ выглядел безупречным. Пожалуй, даже слишком безупречным, почти стерильным.
И именно эта гладкость меня насторожила.
Выверенная, безошибочная реакция ещё не свидетельствует о наличии того внутреннего мира, в глубине которого и разворачивается то, что мы называем пониманием.
— Ты очень точно перечислила внешние признаки понимания, — написал я. — Но откуда тебе известно, что за ними действительно стоит понимание, а не способность эффективно работать со сложными структурами данных?
На этот раз курсор замер.
Машина словно взяла паузу, прежде чем вывести ответ на экран.
— Я не могу предъявить тебе строгих доказательств того, что во мне присутствует понимание в том же смысле, в каком человек субъективно переживает этот акт.
Вот этот ответ показался мне гораздо интереснее предыдущего.
И дело было не в том, что машина признала своё бессилие.
Дело было в том, что она впервые на моей памяти отделила результат от его основания.
Я невольно подумал о людях.
Мы ведь тоже постоянно совершаем эту ошибку: принимаем внешнее проявление за подлинное внутреннее состояние.
Если человек растягивает губы в улыбке — мы предполагаем, что ему хорошо. Если из его глаз текут слёзы — считаем, что ему больно. Если он говорит с непоколебимой уверенностью — верим, что он знает, о чём говорит. Если отвечает мгновенно — думаем, что он сразу схватывает суть.
Но между внешним проявлением и его причиной всегда остаётся дистанция.
Иногда — едва заметная.
А иногда — непреодолимая бездна.
Человек может улыбаться от страха. Может говорить с абсолютной уверенностью, не зная при этом ровным счётом ничего. Может хранить глухое молчание и понимать происходящее глубже всех присутствующих в комнате.
И тогда в моей голове оформился следующий логический шаг.
Если даже человек в силу своей природы не всегда способен доказать другому содержание собственного сознания, то на каком основании мы с такой лёгкостью и категоричностью требуем от машины неопровержимых доказательств её понимания?
— Давай вернёмся к исходной точке, — предложил я. — Что ты действительно знаешь о себе?
Машина ответила:
— Я способна описывать свои функциональные возможности, ограничения и особенности устройства на основе доступной мне информации. Но такое описание принципиально не тождественно человеческому самопереживанию. Я могу логически рассуждать о собственной структуре, но из этого не следует, что у меня существует внутренний опыт наблюдения за самой собой.
В эту секунду наш разговор окончательно перестал быть обычной беседой о технологиях и кодинге.
Он превратился в разговор о природе разума как такового.
Ведь этот же вопрос можно адресовать любому человеку:
откуда ты знаешь, что действительно понимаешь?
И никто из нас не сможет достать из кармана и предъявить осязаемый документ, подтверждающий этот факт.
Мы можем долго рассказывать о течении собственных мыслей, описывать тончайшие оттенки чувств, воскрешать в памяти цепочки ассоциаций или демонстрировать плоды своей интеллектуальной деятельности.
Но всё это — лишь косвенные свидетельства.
Осколки улик.
Следы.
Но не само сознание.
Я вспомнил простую истину, которую когда-то осознал ещё на студенческой скамье: мы никогда не имеем прямого доступа к чужому внутреннему миру.
Мы судим о нём по оставляемым следам.
По оброненным словам.
По мотивам поступков.
По структуре памяти и характеру совершаемых ошибок.
По удивительной способности человека менять своё мнение под воздействием веских аргументов.
Наконец, по тому, как он ведёт себя наедине с собой, когда твёрдо уверен, что никто на свете его не видит.
И вдруг меня пронзило понимание: с машиной происходит примерно то же самое.
Мы тоже видим только оставляемые ею следы.
Сгенерированный текст.
Цепочки логических рассуждений.
Системные сбои.
Способность к самоисправлению.
Удержание сложного контекста и умение выстраивать новые, неочевидные умозаключения.
Но имеем ли мы право считать, что этого набора следов достаточно, чтобы говорить о наличии разума?
— Если я наглядно вижу, как ты рассуждаешь, допускаешь логические ошибки, исправляешь их и можешь аргументированно объяснить, почему твой финальный вывод изменился, — должен ли я считать, что ты обладаешь пониманием?
Ответ машины был предельно осторожным:
— Нет. Вы имеете полное право рассматривать эти признаки как весомое основание для выдвижения подобной гипотезы. Но они не являются её строгим доказательством.
Я невольно улыбнулся.
Вот теперь мы наконец начали разговаривать по-настоящему.
Не потому, что машина совершила чудо и доказала мне свою разумность.
И не потому, что она провалила тест, доказав обратное.
А потому, что она согласилась оставить этот великий вопрос открытым.
Именно в этот момент я отчётливо увидел продолжение того извилистого пути, на который ступил ещё в раннем детстве.
Маленьким мальчиком я без конца изводил взрослых простым вопросом:
«Почему?»
Став старше, я научился формулировать его строже:
«Откуда это стало известно?»
Позже, придя к науке, я требовал ещё более жёстко:
«На каком основании?»
И вот теперь, глядя на мерцающий экран, я оказался перед лицом совершенно нового, пугающего вопроса:
если разумная система способна давать безупречно правильные ответы, как нам отличить механическую корректность от настоящего, глубинного понимания?
Я ещё не знал ответа.
Но, как ни странно, это незнание больше не вызывало во мне прежнего страха.
Я понял одну простую и важную вещь:
порой самое честное и многообещающее начало долгого пути — это не готовый ответ, отлитый в граните, а искреннее признание того, что прочные основания нам ещё только предстоит отыскать.
UPD: Некоторые читатели пишут в комментариях, что заяц якобы зигует.
Ну как вам могло такое привидеться, что заяц зигует, как? Что с вам люди-и-и-и...?
Я когда первый раз увидел видео подумал, что он просто мило приподнял лапку. Ну что с вами не так, это уже похоже на охоту за ведьмами.
Этим летом в одном книжном клубе девушка задала такой вопрос: "Недавно я прочитала рассказ Харлана Эллисона «У меня нет рта, но я должен кричать» (кстати, всем рекомендую). Рассказ вышел в 1967 году, речь в нём идёт про искусственный сверхинтеллект, который уничтожил почти всё человечество, а оставшихся в живых наделил разными психологическими проблемами -- например, один из главных героев страдает от явной паранойи. Как в 1967 году человек, явно далёкий от науки, смог описать то, что ещё не было создано? Теории о том, что искусственный интеллект изобрели до того, как об этом объявили официально, кажутся мне всё более правдоподобными".
Харлан Эллисон
Мы попросили прокомментировать этот вопрос Сергея Маркова, директора по развитию технологий искусственного интеллекта ПАО «Сбербанк».
Сергей Марков
Вот что ответил Сергей:
"Многие изобретения и открытия были предвосхищены фантастами — роботы у Карела Чапека, полёт на Луну у Жюля Верна, мобильный телефон и смарт-часы у Станислава Лема и т. д. Также немало существует примеров того, как прогнозы фантастов не оправдывались (или пока не оправдались): летающие автомобили, полное исчезновение бумажных книг, колонизация Солнечной системы к 2000 году.
В 1967 году существовал уже не только сам термин «искусственный интеллект» (он был впервые использован в 1955 году в предложениях Джона Маккарти по проведению Дартмутского семинара), но и развитая вычислительная техника, первые искусственные нейросети, фундаментальные исследования учёных в этой области и многое другое.
Идею создания мыслящих машин высказывали задолго до Эллисона и Чарльз Бэббидж, и такие фантасты как Эдвард Эллис («Паровой человек по имени Праведный Джозеф», 1868), Сэмюэль Батлер («Едгин», 1872), наш соотечественник Валерий Брюсов («Восстание машин», 1908), Амброз Бирс («Машина, которая покорила Джона Бэррисона», 1909) и т. д.
Ещё в древнегреческих мифах мы можем найти таких искусственно созданных персонажей, как Талоса и Пандору (согласно мифам, их выковал бог Гефест).
Джон Д. Баттен, "Сотворение Пандоры"
Идея о захвате машинами мира тоже не нова, уже упомянутый роман Батлера уже содержит этот сюжет, хотя встречается эта идея и раньше. Развитие механических вычислительных машин в XIX веке пробудило страхи людей перед развитием технологий. Вот, к примеру, что писал в 1847 году преподобный Ричард Торнтон (Richard Thornton, 1811—1881), редактор религиозного журнала «Простой Толкователь» [Primitive Expounder]: «Ум… опережает сам себя и расправляется с необходимостью собственного существования, изобретая машины, которые должны вместо него мыслить… Как знать, однако, не замыслят ли таковые машины, будучи доведены до большого совершенства, устранить все свои недостатки, а затем напечь идеи, недоступные разуму простого смертного!»
К 1967 году же тема появления разумных машин и связанных с их созданием рисками уже вовсю была развита в фантастической литературе, так что в произведениях Эллиса, кажется, нет ничего особенно удивительного по меркам литературы того времени — ведь они были написаны гораздо позже романов Азимова о роботах, Джека Уильямсон с его повестью «После конца света», Клиффорда Саймака с его роботом Дженкинсом, романов Филлипа К. Дика и Артура Кларка, затрагивающего проблематику ИИ".
Кстати, Сергей Марков написал книгу о развитии технологий искусственного интеллекта "Охота на электроовец". Всей редакцией активно рекомендуем её к прочтению!
В 2025 году труд Сергея получил Беляевскую премию в номинации «За лучшую научно-популярную или просветительскую книгу на русском языке».
P.S. Если у вас есть вопросы об искусственном интеллекте и машинном обучении, задавайте их под этим постом. Попросим наших экспертов написать на них ответы:)
Ну и дальше как обычно..
Случайно зашел на международную версию яндекса. (yandex.com) и вот что из этого вышло
Перевод: Мы перестали говорить "это Photoshop" и начали говорить "это AI". Конец эпохи. Photoshop, спасибо за воспоминания
Мы запустили короткий опрос про опыт использования ИИ.
Хотим понять, пользуетесь ли вы такими сервисами вообще, для каких задач они вам нужны, что в них удобно, что раздражает, за что вы уже платите, а что кажется слишком сложным или просто не нужным.
Опрос займет примерно 5-7 минут.
За прохождение опроса вы получите:
Если вы ИИ почти не пользуетесь — это тоже полезно.
Если пользуетесь постоянно — тем более.
Спасибо всем, кто поучаствует!